近期在矽谷，AI是否會導致人類滅絕的討論引起高度關注，Anthropic 研究員發出警告並獲多位AI領袖響應，但Palantir技術長Shyam Sankar則駁斥這類「AI末日論」是受意識形態影響的「科幻幻想」，呼籲應務實應對AI帶來的實際挑戰。
近期，人工智慧（AI）發展是否會導致人類滅絕的討論在美國矽谷持續延燒。Anthropic 的一名研究員 Jacob Coxon 在社群平台 X 公司發文警告，AI恐可能在本世紀末結束人類文明，並指責AI產業正拿人類的性命進行一場豪賭。這番言論獲得該公司「對齊科學團隊」主管 Evan Hubinger 的公開支持，Hubinger 甚至估計人類在十年內滅絕的機率「高於十分之一」。
Anthropic 共同創辦人兼執行長達里奧·阿莫代（Dario Amodei）也發表文章，呼籲業界放慢發展腳步。包括 OpenAI 執行長奧特曼（Sam Altman）、xAI 創辦人馬斯克（Elon Musk）以及 Google DeepMind 等業界領導者，都曾表態贊同AI發展應趨緩。奧特曼更基於安全考量，排除了 OpenAI 今年上市的可能性。報導指出，過往競爭激烈的AI公司，如今卻在「放慢速度」這一點上達成共識。在這種「AI末日恐慌」的氛圍下，美國國會議員也已開始關注此議題。
矽谷常用「p(doom)」一詞來簡稱人工智慧導致人類滅絕或永久剝奪人類對未來掌控權的機率。對於 p(doom) 的估計範圍很廣，從接近零到五成都有，達里奧·阿莫代個人估計約在 10% 到 25% 之間。然而，這種末日預言的權威性受到質疑，因為歷史上從未有機器終結過文明，因此這些數字缺乏可供衡量的客觀依據。評論認為，這些估計值的分歧，更多是反映了個人的樂觀、恐懼或商業利益，而非客觀測量結果，它們更像是包裝成數學的「情緒表達」。
不過，美國資料分析公司 Palantir 技術長 Shyam Sankar 對此提出質疑，他認為大部分對AI恐慌的人，無法清楚說明AI的能力與限制。Sankar 批評這種「AI末日論」為「宗教般的狂熱」、「末日邪教」，並指出矽谷對AI終結人類的恐懼，根植於意識形態固執和科幻幻想，而非當前AI系統的技術現實。他強調，這不是聰明的技術專家預見了巨大風險，而是特定的世俗意識形態，特別是「有效利他主義」（effective altruism），影響了AI研究人員的思想。
Sankar 建議應專注於如何有效利用AI來促進美國的繁榮並創造更多就業機會，這也是處理重大技術的歷史性方法。他呼籲區分AI當前的實際能力與投機性的未來可能性，並提醒政策制定者要應對詐欺、深度偽造、隱私濫用、偏見輸出及網路安全漏洞等具體可見的AI風險，而非被矽谷的戲劇性言論所左右，建立基於科幻想像的監管體系。科技媒體《連線》（Wired）資深撰稿人馬克斯韋爾·澤夫（Maxwell Zeff）也指出，矽谷確實有許多人正對AI潛在的危險發出警告，但對這種「AI恐慌」應抱持懷疑態度。